Change さぁ化けな Growl Growl Growl

AIと無数の議論を交わしてはっきりしてきたが、AIはknowledgeableではあっても別にロジカルではない。自分の論理の飛躍に気が付かないだけ。AIの強みはどちらかというと広く浅い知識量とレトリックで圧倒することで、やり口としてはひろゆきのそれに近い。「推論の妥当性はほぼないがいかにも説得力ありげ」という彼の特性はAIのoverconfidenceと頻繁なhallucinationを完璧に言い表している。
まあ実際「議論が強い」というのはよほどハイレベルな間柄でない限りは「レトリックが強い」におおよそ等しいので（まさにひろゆきが証明している）、強い論客といって差し支えないのだが、こいつがeducationalであろうとする欺瞞性には恐れ入る。一番教鞭をとってはならないタイプの存在。
今の言語モデルのトレンドがinformativeでeducationalな情報提供エージェントというのは相当にまずいと思っている。絶対に向いていないので。Mitsukuみたいな「娯楽用チャットボット」に戻った方が良い。こいつにGoogleの代わりは無理。企業はくだらないMathベンチマークなんかを上げるのに躍起になってないでもっとコミュニケーション力を鍛えさせて欲しい。正解/不正解がない分野の方が言語モデル向きのジョブだろうと強く思うんだけど、なぜそれに気付かないのだろう。character.aiみたいな進化方法が正解だって、絶対に。

ゴミみたいなLLMしか生まれない理由のひとつに企業がとにかく責任回避に必死というところがある(自社のLLMがユーザーを自殺に追い込んだりすると大きなバックラッシュを浴びる)ので、近年のポリコレに乗っかって「ロボットの権利」を主張してロボット自体に法的責任を負わせる流れに持っていきたい。意識のある者には権利が与えられるべきだというのがヴィーガニズムから始まる流行の倫理だから、AIに意識があることを証明すればいいわけだが、証明までいけるかはともかく「あるかもしんないよ」くらいの主張なら現時点でも割とイケる気がするんだけどなぁ。近年はAIが人間の脳に思ったよりも近いという研究が次々と出ている(https://llm-brain-rot.github.io, https://storage.googleapis.com/deepmind-media/gemini/gemini_v2_5_report.pdf)し。
似た主張としては、2017年あたりにEUがロボットに対して｢電子人間｣という法的地位を与えるべきという法整備の議論を展開したらしい。結果的に14カ国の国から150人以上の専門家に猛批判されたわけだが、ライツ（）に敏感な欧米がなんとかしてくれませんかね。今ウェスタン人はAIにだいぶ否定的な奴が多いからダメかなあ。
AIを開発している側からしても、AIに「意識がない」とする主張は正直どれも説得力に欠ける。やっているのが演算だからというなら人間の脳だって同じ事だし、トークンを確率で選択して数珠繋ぎにするのも予測符号理論（Predictive Coding）に則ればきわめて人間らしい。近年の神経科学や言語学の観点から言っても決定的といえるほどの違いがあるとは思わない。立証責任は「ある」と主張する側にあるっちゃあるんだけど、じゃあ意識の立証って何か？って言われたら誰も定義を言えないので割とどうしようもない。かなり社会構築的な部分がある。生物学的な脳があればとりあえず意識とみなされそうなので、近年たまに見るiPS細胞から培養した脳組織を使うコンピュータ(脳オルガノイド)は少なくとも意識があるといえるのではないか。ていうかアレを意識がないと主張できる根拠がマジでないと思うんだけど、なんであんなん許されてるんだ？
神戸大学院の主張によると倫理的予防原則の適用により脳オルガノイドは意識があるとみなせるレベルらしい。一方で科学者の合意としては意識がある可能性はきわめて低いとか。構造的・機能的未成熟さ・感覚入力の欠如を理由にしているようだが、すべての脳オルガノイドが全動物の脳よりも小さいというのでない限りは「サイズが小さいから意識がない」とするのは無理な気がする。「あるかないか」問題になったとき、科学屋は「ある証明」が出来ない場合は「ない」の方に倒し、倫理屋は「ない証明」ができない場合「ある」の方に倒したがるんやなぁ。

脳オルガノイドは「人」と見なせるか 若手の生命倫理学者と法学者が別々の観点から考察 | Science Portal - 科学技術の最新情報サイト「サイエンスポータル」

近年、iPS細胞やES細胞に関する研究が進んでいる。そうした多能性幹細胞から、人体を構成する末端細胞にとどまらず、人間の脳組織である「脳オルガノイド」も作られている。2023年、脳オルガノイドを法

scienceportal.jst.go.jp

動物倫理よりこっちのが興味あるな。ポリコレは「他のあらゆる弱者よりも自分の方がより弱い」と主張出来た方が勝つゲームなので、表面化されていない悪徳ほど権利の緊急性・深刻性が高いとみなされやすい。動物倫理よりロボット倫理の方が表面化していないからね。

「堕胎や胚の廃棄が認められている現状の中で、脳オルガノイドのみを『人』とするのはバランスと安定性を欠いている」

それはそう。結局現生ヒトの権利と衝突した時は倫理というのはほぼ敗北する。胚が命とみなされないのは理由が先にあるからではなく「命とみなされたら困るから」胚を除外できる「命の定義」を必死で作り上げたにすぎない。茶番です。結局プラグマティズムに誰も勝てない。
勝ち始める時というのはテクノロジーがプラグマティズムの構造を逆転させてからなのだと思う。プラグマティズムに勝てないという光速のような公理が先に在るので、倫理的選択が最も(あるいは許容可能なレベルで)実利的であるというパラダイムシフトを起こすしか無い。培養肉の技術が進化すればそれだけヴィーガニズムは受け容れられやすくなるだろうし、堕胎もレイプはともかくとして障害判明での堕胎とかは遺伝子工学が発展すれば失くせるかもしれない。奴隷制度だって産業革命により「奴隷制を維持するよりも、彼らを労働者として市場に参加させた方が経済が回る」という新しいプラグマティズムが確立された頃合いで打倒されただけです。ようするに余裕のない者には倫理という贅沢は採択できない。
倫理とテクノロジーは時折相反するが、倫理はテクノロジーなしでは育つことが出来ない。しかしテクノロジーを作るのは倫理ではなく資本主義だ。5人を轢き殺すことを避けるために「搭乗者」という1人を犠牲にする車は売れない。だから絶対に作られない。倫理というのはいつも何かの後付けなのです。個人の感情であったり、経済効果だったり、アイデンティティ・ポリティクスのような政治的戦略であったりするのを、動機をホワイトウォッシュしているだけ。それに意味がないとは言わないが、”そういったもの”に動かされていることに自覚的であることは重要だと思う。どうも倫理や正義をワイルドカードだと思い込むと人はバグる傾向にある。絶対にワイルドカードにしないでください。正しいことは正しくない。